Respondendo a perguntas importantes sobre a adoção da IA na segurança cibernética

À medida que testemunhamos um número crescente de ataques cibernéticos e violações de dados, a demanda por soluções avançadas de segurança cibernética se torna mais crítica. E a inteligência artificial (IA) surgiu como poderosa candidata para ajudar a resolver esses problemas urgentes. Vamos explorar os benefícios, os desafios e os possíveis riscos da IA na segurança cibernética a partir de perguntas que ouço com certa frequência.

P1. Estamos em uma revolução da IA?

R1. As inovações em IA nos impulsionaram para uma revolução, levando a avanços significativos no processamento de linguagem natural, visão computacional e recursos de tomada de decisão. Os sistemas de IA estão se tornando mais gerais e competitivos para os seres humanos em uma ampla gama de tarefas. As recentes descobertas dos modelos de linguagem ampla (LLM) e da IA generativa, como o ChatGPT e o GPT-4, por exemplo, podem fazer um trabalho incrível ao escrever um artigo, criar códigos, desenhos e até mesmo passar em um exame de ordem. Está ficando claro que esses avanços terão um impacto profundo em nossa sociedade, incluindo o potencial de revolucionar o mundo da segurança cibernética.

P2. Quais são os benefícios do uso da IA para resolver problemas de segurança cibernética?

R2. A segurança cibernética, em muitos casos, assemelha-se à tarefa de procurar agulhas em palheiros. Com a implementação da IA, o processo pode se tornar mais eficiente e escalável, pois ela é excelente na identificação de padrões e na realização de análises de dados em grande escala. A IA oferece várias vantagens na abordagem dos desafios de segurança cibernética, incluindo:

• Detecção de ameaças desconhecidas de dia zero e de padrões de comportamento anômalos, complementando abordagens heurísticas e baseadas em assinaturas;
• Classificação e descoberta automáticas de dados confidenciais e ativos digitais corporativos;
• Simplificação de configurações complexas de políticas e tarefas de gerenciamento, reduzindo a carga de trabalho dos profissionais de segurança cibernética;
• Identificação de usuários e dispositivos realmente suspeitos por meio de análise eficiente de grandes volumes de alertas e registros;
• Fornecimento de inteligência adicional sobre incidentes de segurança e recomendações de reações mais eficazes. 

Esses benefícios, em conjunto, levam a uma abordagem mais proativa e eficiente para manter a segurança e reduzir os riscos de ataques cibernéticos. Com a ajuda de ferramentas baseadas em IA, os profissionais de segurança se tornarão muito mais produtivos na identificação de agentes mal-intencionados e na realização de investigações de ameaças. 

P3. Como a Netskope está usando IA?

R3. Na Netskope, usamos a mais recente tecnologia de IA e machine learning (ML) para alimentar a plataforma de segurança Netskope Intelligent Security Service Edge (SSE). Temos uma equipe de cientistas de ML dedicados, pesquisadores de segurança e engenheiros de produtos com histórico de solução de problemas de segurança e fraude em diferentes domínios. Aproveitando nossa experiência em IA/ML e segurança, estamos desenvolvendo soluções de IA em larga escala para o SSE. Por exemplo, 

• Ao aplicar técnicas de visão computacional e processamento de linguagem natural baseadas em deep learning, conseguimos detectar dados confidenciais e pessoais no tráfego de rede de nossos clientes, como documentos financeiros e jurídicos, código-fonte, e imagens de passaportes e cartões de crédito, o que ajuda nossos clientes a cumprir normas de privacidade e proteger seus ativos digitais.
• Por meio do uso da análise de comportamento de usuários e entidades incorporada (UEBA), treinamos modelos para discernir padrões de comportamento normais daqueles originados de pessoas internas mal-intencionadas, contas comprometidas, exfiltração de dados e ataques de ransomware..
• A IA é usada para alimentar vários mecanismos de detecção de malware na varredura rápida em linha, bem como na varredura profunda baseada em análise estática e dinâmica do sistema de proteção contra ameaças da Netskope, melhorando a eficácia da detecção de malware em vários tipos de arquivos. 
• Treinamos modelos de linguagem para classificar URLs e conteúdo da Web, permitindo que os clientes da Netskope apliquem sua política de segurança na Web e realizem uma filtragem eficaz do tráfego e de informações confidenciais ou prejudiciais.
• Semelhante ao pré-treinamento generativo de grandes modelos de linguagem, como os modelos GPT, usamos um grande número de páginas da Web para treinar o codificador HTML e, em seguida, criar um classificador de phishing. O classificador de phishing nos permite detectar e bloquear páginas da Web de phishing no tráfego da Web que passa pela plataforma SSE da Netskope em tempo real. 

Nos últimos três anos, a Netskope recebeu 15 patentes nos EUA por nossa aplicação inovadora de IA para enfrentar os desafios da segurança cibernética. Diferentemente da IA de uso geral, nossos modelos de IA são projetados especificamente para resolver problemas de segurança, priorizando a eficiência e a precisão. Eles são otimizados para processamento em tempo real, permitindo resultados rápidos e precisos, tudo isso mantendo um pequeno espaço de memória. 

P4. Quais são os desafios e os riscos do uso da IA?

R4. A segurança cibernética tem seus próprios desafios quando se trata da adoção da tecnologia de IA e de machine learning.

• Falsos positivos e negativos. Às vezes, a IA pode classificar incorretamente ameaças ou comportamentos anômalos, levando a alarmes falsos ou a ameaças perdidas. Os custos de falsos positivos e falsos negativos podem ser significativos, apresentando desafios consideráveis para os modelos de IA. A IA de uso geral, sem treinamento e ajuste personalizado, pode não atender aos padrões de precisão exigidos. A Netskope adota uma abordagem em várias camadas que incorpora componentes de IA heurísticos e baseados em assinaturas. Isso garante que a plataforma SSE da Netskope atenda aos requisitos de alta precisão necessários para a segurança eficaz dos dados e a proteção contra ameaças.
• Preocupações com a privacidade. Os sistemas de IA precisam de acesso a grandes quantidades de dados para treinar e aprimorar seus algoritmos, o que levanta questões sobre privacidade e proteção de dados. Além disso, o uso da IA na segurança cibernética geralmente envolve o processamento de informações confidenciais e pessoais, que devem ser tratadas com cuidado para garantir a conformidade com as normas de privacidade de dados. O recente ncidente envolvendo funcionários da Samsung que vazaram acidentalmente segredos comerciais via ChatGPT serve como um lembrete da importância da privacidade dos dados no contexto da segurança cibernética da IA. Na Netskope, levamos essas preocupações a sério e priorizamos o uso responsável dos dados em todos as nossas aplicações de IA. Não usamos os dados dos clientes para treinamento de IA, a menos que eles nos deem permissão explícita. 
• Explicabilidade e interpretabilidade. Na segurança cibernética, é fundamental entender como a IA toma suas decisões para garantir que os resultados produzidos sejam confiáveis e consistentes. No entanto, alguns modelos de IA podem ser altamente complexos e difíceis de interpretar, o que torna difícil entender como a IA está chegando às suas conclusões. Esse desafio é agravado no caso da IA generativa, que pode produzir padrões altamente complexos e intrincados que podem ser difíceis de interpretar.
• Vulnerabilidade a ataques adversários. Os hackers podem tentar explorar modelos de IA criando exemplos contraditórios, fazendo com que o modelo de IA classifique incorretamente as entradas e comprometa sua eficácia. Esse risco é especialmente pronunciado na era da IA geradora, como o ChatGPT/GPT-4, que pode produzir dados sintéticos altamente realistas que podem ser difíceis de distinguir dos dados legítimos pelos sistemas de segurança de IA.

Embora a IA possa certamente trazer benefícios significativos para a segurança cibernética, é essencial reconhecer e abordar os possíveis desafios e riscos associados ao seu uso, especialmente na era da IA generativa e de ferramentas como ChatGPT/GPT-4. Ao reconhecer e abordar esses desafios, as equipes de segurança podem garantir que a IA seja usada de forma responsável e eficaz na luta contra as ameaças cibernéticas.

P5: Os hackers estão usando IA a seu favor?

R5. Não tenho dúvidas de que alguns criminosos cibernéticos também estão explorando a IA em seu benefício. Conforme ilustrado neste blog, eles podem usar tecnologias de IA para aprimorar suas estratégias de ataque e desenvolver malwares mais sofisticados. Isso inclui o uso da IA para acelerar a exploração de vulnerabilidades, criar malware de autopropagação e automatizar a extração de informações valiosas. Além disso, os invasores podem usar uma ferramenta como o ChatGPT para aprimorar suas habilidades de engenharia social. Ela pode ajudá-los a escrever textos específicos para usá-los em e-mails de phishing, redirecionando as vítimas para sites mal-intencionados ou induzindo-as a baixar o malware anexado.

Consequentemente, as organizações devem permanecer vigilantes e adotar soluções avançadas baseadas em IA para se manterem à frente do cenário de ameaças cibernéticas em constante evolução.

P6: Ultimamente, tem havido muita discussão sobre os possíveis riscos que a IA traz para a humanidade. A equipe do AI Labs está comprometida em agir com responsabilidade?

R6. Para garantir segurança e proteção, precisamos trabalhar juntos como sociedade - desenvolvedores de IA, empresas, governos e indivíduos - para tornar os sistemas de IA mais precisos, transparentes, interpretáveis e confiáveis, minimizando os riscos à privacidade e à segurança. 

O Netskope AI Labs está comprometido com o uso responsável de inteligência artificial e machine learning. Trabalharemos com colegas, acadêmicos, líderes do segmento e governos para direcionar com segurança os esforços de IA para beneficiar e não prejudicar nossos clientes, parceiros, funcionários e suas famílias. Tomaremos precauções e manteremos uma postura de transparência em nossos esforços.

Sumário

Atualmente, estamos testemunhando uma era de ouro para a pesquisa e o desenvolvimento de IA, pois as tecnologias desse tipo continuam a melhorar e a ganhar poder sem precedentes a cada dia que passa. Estamos entusiasmados com o potencial da IA no campo da segurança cibernética. As organizações devem adotá-la e investir em estruturas de segurança abrangentes que incluam soluções desse tipo, ao mesmo tempo, abordem vários desafios e riscos potenciais, garantindo uma adoção segura em seu arsenal de defesa cibernética.

Para saber mais sobre como usamos a IA para resolver diferentes problemas de segurança cibernética na Netskope e obter as atualizações mais recentes, acesse Netskope AI Labs.